Kỹ sư Đánh giá An ninh mạng tại Anthropic

Đã xác nhận còn mở

Thiết kế đánh giá năng lực và an toàn mạng cho mô hình AI của Anthropic, kiểm thử biện pháp bảo vệ trước phát hành, xây công cụ Python và bộ dò hành vi lạm dụng.

Anthropic

Tìm việc theo công ty: Anthropic

Địa điểm: Từ xa
Khu vực tuyển dụng: Làm việc từ xa-Friendly, United States; San Francisco, CA | Washington, DC / San Francisco, California, United States
Hình thức làm việc: remote
Công nghệ: Python

Xem cách ứng tuyển

Lưu việc làm — tài khoản miễn phí Việc làm đã lưu

Tạo hồ sơ ứng tuyển miễn phí — Lưu kỹ năng và dự án trong một hồ sơ có thể dùng lại. Hồ sơ mặc định riêng tư; bạn quyết định khi nào chia sẻ. Ứng tuyển tin này trực tiếp với nhà tuyển dụng.

Bằng cách tiếp tục, bạn đồng ý với cách xử lý dữ liệu để quản lý tài khoản và hồ sơ của mình. Quyền riêng tư

Tổng quan vị trí

Anthropic tuyển Kỹ sư Đánh giá An ninh mạng để đánh giá năng lực mạng và độ vững của các biện pháp bảo vệ trong mô hình AI. Công việc kết hợp đánh giá mô hình, phân tích dữ liệu jailbreak và vượt qua prompt, cùng thiết kế công cụ dò phát hiện hành vi lạm dụng.

Trách nhiệm

Thiết kế và thực hiện đánh giá năng lực, mức độ gia tăng năng lực và rủi ro an toàn mạng của mô hình mới.
Kiểm thử độ vững của biện pháp bảo vệ trước các đợt phát hành lớn và trình bày kết quả cho các bên liên quan.
Tạo mẫu và tinh chỉnh công cụ dò hành vi lạm dụng mạng trong môi trường vận hành; cùng nhóm chính sách đo độ chính xác và độ bao phủ.
Xây công cụ nội bộ để chạy, chấm điểm đánh giá và chuyển kết quả thành cải tiến biện pháp bảo vệ.

Yêu cầu

Có kinh nghiệm xây dựng hoặc vận hành bộ đánh giá, benchmark hay bộ kiểm thử cho phần mềm hoặc hệ thống học máy.
Có kinh nghiệm thực hành an ninh mạng như CTF, nghiên cứu lỗ hổng, phát triển khai thác hoặc nghiên cứu bảo mật.
Thành thạo Python và có khả năng trình bày kết quả kỹ thuật cho nhiều nhóm.
Tin tuyển dụng cũng ưu tiên kinh nghiệm nghiên cứu bảo mật tấn công, phân tích dữ liệu đối kháng và framework đánh giá AI.

Công nghệ trong công việc

Python: Python proficiency and the ability to communicate technical results across .
SIEM: Experience authoring detection content (e.g., Sigma, YARA, Suricata, SIEM rules) or building ML-based abuse .

Hướng dẫn đánh giá mức độ phù hợp (tiếng Anh)

Phân tích dựa trên yêu cầu và trách nhiệm trong tin tuyển dụng của nhà tuyển dụng.

Understanding the scope. This Cyber Evaluations Engineer position at Anthropic is best assessed through the work described in the employer’s posting, rather than the title alone. The available role overview says: “Anthropic is hiring a Cyber Evaluations Engineer to assess cyber capabilities and the robustness of safeguards in its AI models. The role combines model evaluations, analysis of jailbreak and prompt-bypass data, and…” Read that statement together with the responsibilities below to understand the likely balance between delivery, coordination and technical decision-making. The role belongs to the security area, but that label is only a guide to the work; the employer’s own requirements remain decisive. Before applying, check the original listing for reporting lines, product or team assignment, employment terms and any details that may have changed since this copy was checked. Where this page says a fact is not specified, treat it as an open question rather than an implied promise.

What the responsibilities signal. The posting specifically names “Design and run cyber capability, uplift and safety evaluations for new models.”; “Test safeguard robustness before major model releases and explain the results to stakeholders.”; “Prototype and tune production probes for cyber misuse, then measure their precision and coverage with the cyber policy team.”. For each duty, identify a project where you performed comparable work and be ready to describe the context, your own contribution, constraints, decisions, and measurable result. Explain how you moved from the initial need to implementation, review, release or operational follow-through, where those stages apply. If the work involved other teams or users, distinguish your decisions from the group’s contribution. Avoid presenting a technology keyword as proof by itself: connect it to the problem you solved, the scale or complexity involved, and what changed after your work. The source may contain additional duties; review it directly before preparing your application.

How to read the requirements. The listed qualifications include “Experience building or running evaluations, benchmarks or test suites for software or machine-learning systems.”; “Hands-on cybersecurity work such as CTFs, vulnerability research, exploit development or security research.”; “Python proficiency and the ability to communicate technical results across teams.”. Mark each requirement as demonstrated, adjacent experience or a genuine gap, then use a concise example for the first two categories. A strong example explains what you personally owned, how you made trade-offs, how you validated the result and what you learned. If the posting specifies years of experience, language ability, certifications, location or eligibility, address those facts plainly in your CV or application rather than relying on the employer to infer them. Do not claim a qualification from exposure alone. For a requirement you do not meet, describe relevant transferable experience accurately and ask the recruiter whether it is mandatory.

Technology and working evidence. The technology terms associated with this listing are Python. Treat this as a set of posting-derived signals, not a guarantee that every tool is used daily or that the list is complete. For each term relevant to your experience, prepare one concrete example: the system or workflow, the part you owned, the alternatives considered, and how you tested reliability, security, performance or usability as appropriate. If you have not used a named tool, explain the closest related system you have worked with and how you would ramp up; do not relabel that experience as direct production use. If the source describes technologies beyond this list, prioritize its exact wording.

Evidence to put in the application. Tailor the first half of your CV to the named work instead of using a generic summary. Lead with two or three outcomes that match the.

Phúc lợi

Tin tuyển dụng nêu chế độ nghỉ phép, nghỉ chăm con, giờ làm linh hoạt và chương trình đối ứng tùy chọn khi quyên góp cổ phần.
Anthropic cho biết nhân viên thường làm việc tại văn phòng ít nhất 25% thời gian; một số vị trí yêu cầu nhiều hơn. Hãy kiểm tra điều kiện địa điểm và đi lại của vị trí này trong tin gốc.